#Information Gain

4 篇

Information-Gain Calibrated On-Policy Distillation for Deep Search Agents

基于信息增益校准的在线策略蒸馏用于深度搜索智能体

🧭 On-policy distillation · 信息增益校准 ★ 深度解读

The Chinese University of Hong Kong, Shenzhen · Renmin University of China · Beijing University of Posts and Telecommunications · Beijing Academy of Artificial Intelligence (BAAI)

提出 IG-OPD，用检索后信息增益校准 OPD 的预算与方向先验，修正证据盲监督

📌 工作参考价值（4 点）

多轮检索/会话 agent 蒸馏时，teacher 对 query 的似然偏好不等于检索证据的实际效用；可引入 post-retrieval information gain（如文档是否包含答案、证据是否改变后续置信）作为校准信号，对 query/tool-call tokens 做奖励修正，避免好 query 被误罚。
按 turn 而不是按 token 长度分配监督权重：搜索/召回 turn 通常短但信息增益高，合成/回答 turn 长但增益低；ITC 的预算重分配可通过 token loss 乘 ratio 实现，无需改 trainer，工程成本低。
在电商搜索/推荐中，用户 query 改写、检索式推荐、多跳推理 agent 训练可借鉴 IQC 只修正 action-critical tokens（query 字符串、工具参数）而保持 reasoning tokens 不变；对第一跳正反馈、后续跳负反馈更可靠，可据此设计课程和 cosine ramp 避免早期对搜索行为的过度惩罚。
训练后模型推理无额外开销，但蒸馏时需额外做一次 teacher 对 gold answer 的评分，增加约 10% 训练时间/显存，适合离线训练阶段接受。

Training | 2026-10-14 | cs.IR | score 8/10

Amortizing Sequential Experimental Design in Reasoning LLMs

将序贯实验设计摊销到推理LLM中

🧭 Agent 自适应信息收集与提问策略训练

University of Cambridge

用信息增益奖励训练LLM进行自适应信息收集，在低计算成本下超越BED基线并跨域迁移

📌 工作参考价值（4 点）

对话推荐/澄清场景中，可用信息增益作为 reward 训练 LLM 生成提问，快速锁定用户偏好，减少冗余交互。
将实验生成模型与 LLM 自身信念解耦，避免依赖 LLM 可能校准差的后验，用外部模型计算期望信息增益更稳定。
摊销策略使推理时无需在线规划或重采样，直接生成下一个问题，显著降低计算成本，适合线上实时对话系统。
从简单游戏（Twenty Questions）训练的策略能迁移到临床对话，说明信息收集技能可跨域迁移；电商中可在模拟环境预训练提问策略再迁移到真实对话。

Agent | 2026-10-13 | HF Daily | score 7/10

Sequential Experimental Design Bayesian Experimental Design Information Gain LLM Agent Reinforcement Learning

Where Reasoning Matters: Rethinking Latent Reasoning in Semantic ID-based Generative Recommendation

基于信息增益的推理预算分配优化语义ID生成式推荐

🧭 生成式推荐 · 语义ID · 推理预算分配

按语义ID位置的信息增益自适应分配推理计算量，实现精度与效率平衡

📌 工作参考价值（4 点）

生成式推荐推理时，可按语义ID位置的信息增益分配latent refinement步数：早期token（如类目层级）增益高，多分配计算；后期token增益低，少分配，总体节省计算量。
在实际部署中，可离线统计不同位置token的信息增益，或在线上动态学习分配策略，平衡推理延迟与精度。
方法轻量，不改变模型结构，仅调整推理时的迭代步数，易于在已有生成式推荐框架上实现。
思路可拓展至其他序列生成任务（如搜索query建议），对重要token分配更多计算资源。

GenRec | 2026-07-14 | cs.IR | score 10/10

Semantic ID Generative Recommendation Latent Reasoning Budget Allocation Information Gain

Utility-Oriented Visual Evidence Selection for Multimodal Retrieval-Augmented Generation

面向多模态检索增强生成的效用导向视觉证据选择

🧭 Multimodal ★ 深度解读

Arizona State University · Texas A&M University · Morgan Stanley

通过信息增益与潜在有用性变量重新定义证据选择，并用轻量替身模型高效估计效用，无需训练即可超越基线

Multimodal | 2026-05-13 | cs.IR | score 8/10

Multimodal RAG Evidence Selection Information Gain Surrogate Model Discriminative Utility Estimation